Mặc dù san hô xuất hiện lần đầu tiên vào kỷ Cambri[13] cỡ 542 triệu năm trước (Ma), nhưng các hóa thạch là cực hiếm cho tới tận kỷ Ordovic, khoảng 100 triệu năm muộn hơn, khi các bộ san hô bốn tia (Rugosa) và san hô vách đáy (Tabulata) trở nên phổ biến.

San hô vách đáy xuất hiện trong các lớp đá vôi và đá phiến sét chứa canxi thuộc các kỷ Ordovic và Silur, và thông thường tạo thành các lớp đệm thấp hoặc các khối tạo nhánh kề bên san hô bốn tia. Số lượng của chúng bắt đầu suy giảm trong giai đoạn giữa kỷ Silur và cuối cùng chúng tuyệt chủng vào cuối kỷ Permi, khoảng 250 Ma. Các bộ xương của san hô vách đáy được tạo thành từ một dạng khoáng hóa của cacbonat canxi gọi là canxit.

San hô bốn tia trở thành nhóm thống lĩnh vào giữa kỷ Silur, và bị tuyệt chủng vào đầu kỷ Trias. San hô bốn tia tồn tại dưới dạng đơn độc và quần thể, và giống như san hô vách đáy, bộ xương của chúng cũng được tạo thành từ từ canxit.

San hô đá (Scleractinia) lấp đầy các hốc sinh thái bị bỏ trống do sự tuyệt chủng của san hô bốn tia và san hô vách đáy. Các hóa thạch của chúng có thể được tìm thấy với số lượng nhỏ trong các lớp đá từ kỷ Trias, và trở thành tương đối phổ biến trong các lớp đá từ kỷ Jura và các kỷ muộn hơn. Các bộ xương của san hô đá được tạo thành từ một dạng của cacbonat canxi gọi là aragonit[14]. Mặc dù về mặt địa chất chúng là trẻ hơn so với san hô vách đáy và san hô bốn tia, nhưng bộ xương từ aragonit của chúng lại khó bảo tồn hơn và vì thế hồ sơ hóa thạch của chúng là ít hoàn hảo hơn.

Ở một giai đoạn nhất định trong quá khứ địa chất, san hô đã từng rất phổ biến, cũng như san hô hiện đại trong các vùng nước trong và ấm khu vực nhiệt đới tại một số nơi nhất định của thế giới ngày nay. Giống như san hô hiện đại, các tổ tiên của chúng cũng tạo rạn đá ngầm, một số trong chúng hiện nay là các cấu trúc lớn trong các loại đá trầm tích.

Các ám tiều (rạn đá ngầm) cổ đại này không được tạo thành chỉ hoàn toàn bằng san hô. Tảo, hải miên và các dấu tích còn lại của nhiều loài động vật da gai, động vật tay cuộn, động vật hai mảnh vỏ, động vật chân bụng và bọ ba thùy đã từng sinh sống trên các ám tiều này được bảo tồn trong chúng. Điều này làm cho một số san hô là các hóa thạch chỉ mục hữu ích, giúp cho các nhà địa chất có thể xác định niên đại của các lớp đá mà trong đó chúng được tìm thấy.

San hô không bị hạn chế trong các rạn san hô và nhiều loại san hô đơn độc có thể được tìm thấy trong các lớp đá mà không có sự hiện diện của rạn san hô, chẳng hạn chi Cyclocyathus có trong thành hệ đất sét Gault ở Anh.